« Le développement de l’IA n’exonère pas les gouvernements de leurs obligations en matière de droits humains »

Le Parlement européen doit se prononcer mercredi 14 juin sur la première loi au monde visant à réguler les systèmes d’intelligence artificielle (IA). Une étape cruciale dans l’élaboration d’un cadre qui doit donner la priorité aux droits humains dans l’utilisation de technologies qui fascinent autant qu’elles inquiètent.

Lire aussi la tribune : Article réservé à nos abonnés « ChatGPT doit être programmé pour faire face à des situations moralement délicates. Alors quelle théorie morale lui implémenter ? »

L’IA s’est invitée dans notre vie quotidienne, qu’elle modèle et arbitre. Elle nous suit dans nos déplacements, nous reconnaît à distance, choisit les contenus que nous voyons en ligne, et peut même déterminer notre accès aux études supérieures, à l’emploi ou aux services sociaux. La question de son développement, exponentiel, est au cœur des débats public et politique. Celle de ses limites aussi. Au-delà des considérations géopolitiques, économiques ou scientifiques, ces limites doivent avant tout être dictées par le respect des droits humains.

Réguler l’IA c’est à la fois poser des garde-fous et définir des lignes rouges. Pourtant, les technologies les plus dangereuses pour nos droits, comme celles qui permettent de surveiller, identifier et cibler des personnes, sont souvent présentées comme nécessaires, neutres ou sans impact pour celles et ceux qui n’auraient rien à se reprocher.

Lire aussi : Article réservé à nos abonnés Intelligence artificielle : la course à la régulation entre grandes puissances

Nos dirigeants nous expliquent que nous avons besoin de l’IA pour lutter contre la criminalité. En analysant nos données physiques ou comportementales, les algorithmes permettraient d’anticiper la commission d’infractions ou d’élucider des crimes. L’efficacité de ces systèmes est érigée en postulat par les adeptes de la surveillance de masse et leur utilisation se voit alors justifiée sans autre forme de démonstration. Ainsi, en l’espace de quelques mois, la France a légalisé la vidéosurveillance algorithmique, devenue l’outil « nécessaire » pour répondre aux impératifs sécuritaires des Jeux olympiques et paralympiques de Paris en 2024.

Minimiser l’impact

En lieu et place d’une surveillance basée sur des soupçons raisonnables et individualisés d’infraction, la logique est désormais de collecter, de façon indifférenciée, autant de données personnelles que possible pour « voir ce qui se passe », avec l’idée que quelque chose « peut apparaître ». Des méthodes moins intrusives sont-elles seulement envisagées pour atteindre l’objectif légitime de sécurité ?

Lire aussi la tribune : Article réservé à nos abonnés « Les systèmes d’intelligence artificielle vont amplifier les biais de genre dans tous les domaines »

Dans la même logique, une question rhétorique sous forme de lieu commun est souvent posée : si l’on n’a rien à cacher, rien à se reprocher, où est le problème ? Une façon de minimiser l’impact des technologies de surveillance de masse sur notre droit à la vie privée. C’est pourtant bien l’essence même de ce droit qui est remise en cause. Non seulement le droit à la vie privée nous protège contre toute ingérence arbitraire extérieure, mais il nous permet également de contrôler les informations nous concernant et de jouir d’un espace pour exprimer librement nos identités.

Il vous reste 43.42% de cet article à lire. La suite est réservée aux abonnés.